Grossman sinh ra ở Jerusalem. Ông là anh cả của hai anh em.

Mẹ của ông, Michaella, được sinh ra tại Ủy trị Palestine; Cha của ông, Yitzhak, di cư từ Ba Lan với mẹ góa ở tuổi lên chín. Gia đình của mẹ ông là người Do Thái và người nghèo, ông nội của ông đã trải nhựa đường trong Galilee và bổ sung thu nhập của mình bằng cách mua và bán thảm. Bà ngoại của ông là một thợ làm móng. Bà nội của ông đã để lại Ba Lan sau khi bị cảnh sát quấy rối, chưa bao giờ rời khỏi khu vực nơi bà sinh ra. Cùng với con trai và con gái của mình, cô đã đi đến Palestine, nơi cô trở thành người làm sạch trong những khu phố giàu có.

Cha của Grossman là tài xế xe buýt, sau đó là một thư viện, và thông qua anh ta rằng David - "một đứa trẻ đọc sách" - đã có thể xây dựng sự quan tâm đến văn học, và sau này trở thành sự nghiệp của anh. Grossman nhớ lại: "Ông ta đã cho tôi rất nhiều thứ, nhưng những gì ông ta cho tôi là Sholem Aleichem". Aleichem, người sinh ra ở Ukraine, là một trong những nhà văn vĩ đại nhất của Yiddish, mặc dù bây giờ ông được biết đến như một người đàn ông với những câu chuyện có nguồn cảm hứng cho Fiddler on the Roof. Ở tuổi 9, Grossman đã giành được một cuộc thi quốc gia về kiến ​​thức về các tác phẩm của Sholem Aleichem, và sau đó đã từng làm diễn viên trẻ cho đài phát thanh quốc gia. Ông tiếp tục làm việc cho Israel Broadcasting trong gần 25 năm[3].

Năm 1971, Grossman bắt đầu dịch vụ quốc gia của mình làm việc trong tình báo quân đội. Mặc dù ông đã ở trong quân đội khi chiến tranh Yom Kippur nổ ra vào năm 1973, ông đã không thấy hành động nào.

Grossman học triết học và sân khấu tại Đại học Hebrew ở Jerusalem. Sau đại học, anh bắt đầu làm việc trong đài phát thanh, nơi anh đã từng là một diễn viên nhí. Cuối cùng, ông đã trở thành một neo trên Kol Yisrael, dịch vụ phát thanh quốc gia của Israel. Năm 1988, ông bị đuổi việc vì từ chối chôn những tin tức rằng lãnh đạo Palestine tuyên bố chính quyền của họ và thừa nhận quyền tồn tại của Israel.

Grossman sống ở Mevasseret Zion ở ngoại ô Jerusalem. Ông kết hôn với Michal Grossman, một nhà tâm lý học trẻ em. Họ có ba người con, Jonathan, Ruth, và Uri. Uri là một người chỉ huy xe tăng, bị giết năm 2006 tại Li-băng trong chiến tranh giữa Israel và Hizbollah.[4] Cuộc đời của Uri sau đó được tổ chức trong cuốn Falling Out of Time của Grossman.